Creating planning portfolios with predictive models

Mención Internacional en el título de doctorSequential planning portfolios are very powerful in exploiting the complementary strength of different automated planners: for each planning task there are one or more base planners that obtain the best solution. Therefore, the main challenge when building a planning portfolio is to ensure that a suitable planner be chosen and that it gets enough planning time. To solve this problem we need firstly to define three elements. The first is the settings or planning conditions: time, memory, or other constraints. The second one is the set of base planners. And finally, a benchmark that provides us with knowledge on how the base planners will behave under the given settings, following some kind of inductive process. Ideally, if the previous elements are correctly defined, when a new planning task arrives, an oracle will be able to tell which base planner to run and for how long. In practice, since no oracle exists, the challenge to choose a sub-set of base planners, is assigning them a running time and deciding the order in which they are run to optimize a planning metric under the predefined settings. Many state-of-the- art portfolios might never achieve an optimal performance because they do not select different planners for the different planning tasks. In addition, these static techniques typically assign a fixed running time to the selected set of planners, independently of the task. besides, the old-fashioned dynamic portfolios present a poor characterization of the planning task and do not have enough knowledge to predict an accurate portfolio configuration in many cases. The aforementioned drawbacks are intensified by the fact that there is an increasing number of planners available to choose from, although many of them are designed following similar approaches, so they are expected to behave similarly. This dissertation is built on two main hypotheses. Firstly that the space of the base planners can be reduced just by selecting a subset of diverse or complementary planners; e.g. that there is a minimal set of planners that ensure that the optimal portfolio can be computed. Secondly, that planning tasks can be characterized, and that the difficulty in solving them can be modelled as a function of these features. To evaluate the first hypothesis, we analyze different metrics that could be used to filter the initial set of base planners. Classical metrics such as coverage, quality or execution time have been chosen by different portfolios in the past. We demonstrate that these selection methods may reduce the diversity of the portfolios, and propose an alternative method based on the Pareto dominance. We then carry out a profound analysis on previous planning task characterizations and show how we could exploit them in current planning paradigms. A group of very informative features are proposed to improve the current feature definition of the planning tasks. These features have enough knowledge to differentiate planning tasks with similar \a priori" complexity. In this thesis we demonstrate that the implicit knowledge can be exploited in the construction of predictive models. These models estimate whether a base planner will be able to solve a given problem and, if so, how long it will take. Nevertheless, the predictive models are not perfect and sometimes provide wrong (or inaccurate) predictions. To solve this kind of problems, we propose different portfolio strategies to combine the number of selected base planners and their times. These strategies take into account the predefined settings and the knowledge learned in previous phases. In conclusion, this thesis sets out a profound analysis of three different mechanisms or steps to create planning portfolios with predictive models, including new proposals for developing: planner filtering, planning task featuring, learning predictive models and portfolio construction strategies. One of the proposed portfolios was the winner of the Sequential Satisficing Track of the International Planning Competition held in 2014Los portfolios de planificadores tienen un gran potencial ya que pueden aprovecharse de los diferentes planificadores automáticos, consiguiendo mejorar el rendimiento de un único planificador. Sin embargo, la creación de un portfolio no es una tarea sencilla, ya que para poder crear uno lo suficientemente bueno, hay que tratar tres problemas fundamentales. El primero de ellos es encontrar qué planificadores hay que seleccionar como componentes del mismo. La segunda es el tiempo que hay que asignar a cada planificador y, la última y no menos importante el orden en el que se tienen que ejecutar. Actualmente en el estado del arte, estas configuraciones, se realizan a partir de los resultados obtenidos por los planificadores en una fase previa de entrenamiento con un conjunto de problemas y restricciones prefijado (tiempo, memoria, etc), consiguiendo una configuración específica tratando de optimizar una métrica. Idealmente, la mejor configuración posible consiste en asignar el tiempo suficiente al mejor planificador para cada tarea de planificación. Sin embargo, esta configuración no siempre es posible, y hay que recurrir a otras aproximaciones como asignar un tiempo fijo a una selección de planificadores. Ésta no es la única simplificación utilizada, existen otras técnicas más cercanas a la óptima, en las cuales se selecciona un planificador o varios en función de la tarea a resolver. Sin embargo, estos sistemas, denominados dinámicos, incluyen una escasa caracterización de las tareas de planificación. En esta tesis se parte de dos hipótesis. La primera de ellas es que existe un conjunto reducido de planificadores que maximiza la diversidad. La segunda de ellas consiste en la posibilidad de crear un conjunto de descriptivos lo suficientemente bueno para caracterizar la tarea de planificación. La caracterización de las tareas de planificación puede estar basada en sus distintas representaciones, así como en sus paradigmas. La primera tarea es seleccionar un conjunto de planificadores; realizando un análisis basado en las métricas clásicas de planificación, como son problemas resueltos, calidad y tiempo para seleccionar un subconjunto de planificadores. Adicionalmente, proponemos como alternativa a estas métricas, una técnica multiobjetivo. Este criterio está basado en la dominancia de Pareto combinando las métricas de tiempo y calidad. Continuando con nuestras hip_otesis es necesario crear un conjunto de características bien informado para la tarea de planificación. Estas características deben ser capaces de diferenciar adecuadamente por problema y para ello sería necesario basarse en los distintos paradigmas de la planificación automática. Este grupo de características tienen que ser úutiles para crear modelos predictivos. Estos modelos podrán darnos además de una selección de planificadores, una aproximación del tiempo asignado a cada componente y el orden de los mismos. Adicionalmente se presentarán una serie de estrategias para explotar el conocimiento obtenido con los modelos predictivos. En conclusión, se plantea y desarrolla un sistema para configurar porfolios de planificadores usando modelos predictivos en tres fases distintas. Una instanciación de este sistema fue el ganador de la competición internacional de planificación en el áarea de satisfacibilidad en el año 2014.Programa Oficial de Doctorado en Ciencia y Tecnología InformáticaPresidente: María Araceli Sanchís de Miguel.- Secretario: Álvaro Torralba Arias de Reyna.- Vocal: Alessandro Saett

Desarrollo y selección de características basadas en distancias entre grafos para problemas de predicción en planificación automática

El objetivo del presente proyecto es el desarrollo y la selección de características basadas en la distancia entre grafos para problemas de predicción en planificación automática. En la planificación automática existen dos componentes: los dominios y los problemas. De estos elementos se puede generar diversa información, como el número de objetos, número de predicados, la longitud de los planes que los resuelven o el número de nodos generados en el proceso de cómputo del plan. Además de esta información se va a utilizadar una serie de grafos que permiten comparar distintos problemas. Estos grafos se basan en la representación SAS+, que consiste en una lógica proposicional que posee variables de estado multivaluadas con el fin de expresar una estructura causal subyacente. Con todos los datos que se han obtenido, se ha creado una representación común independiente del dominio de planificación. Después se van a realizar una serie de comparaciones entre el problema a resolver y la base de hechos (problemas con solución), creando para ello unas medidas de distancia para los grafos. Estas comparaciones han sido almacenadas para su posterior recuperación. Todo el conocimiento generado se puede utilizar para generar modelos de predicción o para el razonamiento basado en casos. Y con estos modelos se ha comprobado si las medidas desarrolladas con los grafos son acertadas. Además se han realizado procesos de selección de características de los datos de los problemas, para concluir qué variables son las más relevantes para los problemas de planificación automática. Las principales conclusiones obtenidas de este proyecto son la aportación de las características más significativas, además de comprobar que la medida de distancia de los grafos es acertada para la creación de los modelos. ______________________________________________________________________________________________________________________________________The objective of this project is to explain the development and selection of features based on the distance between graphs for prediction problems in automated planning. In automatic planning, there are two fundamental components, the domains and problems. Of these elements can generate various information such as the number of objects, number of predicates, the length of the plans that meet or the number of nodes generated in the process of computing the plan. Addition to this information, we used a series of graphs. These graphs are based on the representation SAS+, which is a propositional logic that has multi-valued state variables in order to express an underlying causal structure. With all the gathered data, a domain-independent representation has been developed. Then they will make a series of comparisons between two di fferent problems, thus creating some distance measures for graphs. These comparisons have been stored for later retrieval. All the knowledge generated can be used to generate predictive models or case-based reasoning. And with these models, wether the measures developed in the graphs are correct has been checked. In addition, feature selection processes have been developed, to conclude which variables are relevant to the problems of automatic planning. The most important conclusions from this project are providing the most signi cant features and to verify that the graph based distance measure are accurate for creating prediction models.Ingeniería en Informátic

The IBaCoP planning system: instance-based configured portfolios

Sequential planning portfolios are very powerful in exploiting the complementary strength of different automated planners. The main challenge of a portfolio planner is to define which base planners to run, to assign the running time for each planner and to decide in what order they should be carried out to optimize a planning metric. Portfolio configurations are usually derived empirically from training benchmarks and remain fixed for an evaluation phase. In this work, we create a per-instance configurable portfolio, which is able to adapt itself to every planning task. The proposed system pre-selects a group of candidate planners using a Pareto-dominance filtering approach and then it decides which planners to include and the time assigned according to predictive models. These models estimate whether a base planner will be able to solve the given problem and, if so, how long it will take. We define different portfolio strategies to combine the knowledge generated by the models. The experimental evaluation shows that the resulting portfolios provide an improvement when compared with non-informed strategies. One of the proposed portfolios was the winner of the Sequential Satisficing Track of the International Planning Competition held in 2014.We thank the authors of the base planners because our work is based largely on their previous effort. This work has been partially supported by the Spanish projects TIN2011-27652-C03-02, TIN2012-38079-C03-02 and TIN2014-55637-C2-1-R

Performance modelling of planners from homogeneous problem sets

Empirical performance models play an important role in the development of planning portfolios that make a per-domain or per-problem configuration of its search components. Even though such portfolios have shown their power when compared to other systems in current benchmarks, there is no clear evidence that they are capable to differentiate problems (instances) having similar input properties (in terms of objects, goals, etc.) but fairly different runtime for a given planner. In this paper we present a study of empirical performance models that are trained using problems having the same configuration, with the objective of guiding the models to recognize the underlying differences existing among homogeneous problems. In addition we propose a set of new features that boost the prediction capabilities under such scenarios. The results show that the learned models clearly performed over random classifiers, which reinforces the hypothesis that the selection of planners can be done on a per-instance basis when configuring a portfolio.This work has been partially supported by the Spanish projects TIN2014-55637-C2-1-R and TIN2015-65686-C5-1-R